Hà Huy Tập sinh ngày 24 tháng 4 năm 1906 (1902 - Bách Khoa toàn thư Việt nam) ở làng Kim Nặc, tổng Thổ Ngọa, nay là xã Cẩm Hưng, huyện Cẩm Xuyên, tỉnh Hà Tĩnh. Nguyên tên lúc nhỏ của ông là Hà Huy Khiêm, còn gọi là Ba, là con thứ hai trong gia đình 5 anh em.

Cha ông vốn từng đỗ Cử nhân Nho học nhưng không ra làm quan mà ở lại quê nhà dạy học và bốc thuốc. Ngoài căn bản Nho học được truyền thụ từ cha, ông còn theo học bậc Tiểu học tại Thị xã Hà Tĩnh. Sau khi học hết bậc Tiểu học, năm 1919, ông thi vào trường Quốc học Huế. Năm 1923, ông tốt nghiệp Diplôme hạng ưu, được phân về dạy tại trường Tiểu học Nha Trang (nay là Trường Trung học phổ thông Nguyễn Văn Trỗi) cho đến năm 1926.

Tiểu sử tự thuật của Hà Huy Tập khi học tại trường Phương Đông: "Tôi sinh ra trong một gia đình nông dân hai trai hai gái. Bố tôi mất năm 1916. Mẹ tôi còn sống. Anh cả tôi khi thì ở nông thôn trồng lúa trên những thửa ruộng của mẹ tôi, khi thì làm việc trong các xí nghiệp công hoặc hầm mỏ vì anh ấy không thể đủ cấp cho nhu cầu gia đình với những công việc đồng áng. Em gái út của tôi là vợ của một người cộng sản vừa tháng 6/1929 bị kết án lao động khổ sai cho đến khi chết. Người em gái này không có điều kiện đi học. Về phần tôi, tôi đã lập gia đình với một nữ cộng sản năm 1929..."